Co-Evolving Harnesses and Models: On-Policy Correction Helps Weaker Models Catch Up Where Imitation Fails
协同演化 Harness 与模型：On-Policy 纠错在模仿失效处帮助弱模型追赶
🧭 Agent harness 与模型权重协同优化 ★ 深度解读
Salesforce AI
在已演化的 Agent harness 下，全轨迹模仿专家会破坏弱模型的 harness 适配，而基于学生自身 rollout 的 on-policy 局部纠错可无损叠加模型增益
📌 工作参考价值（4 点）
- 在已有优化 prompt/tool/hook 的 Agent 系统上做 LoRA 微调时，避免直接用专家全轨迹 SFT；应保留学生自身 rollout 的规划风格，只对失败 turn 做局部纠正，否则会破坏 harness 与模型的适配，导致全面退化（文中 -14.9 点）。
- 可以借鉴 on-policy expert correction 管道：用 meta-level agent 定位失败 turn，让专家只重写该 turn，保持前后步骤不变；训练数据仅约 500 条，微调不到 1 小时，适合迭代式 co-evolution。
- 若业务中需要小模型+定制 harness 降本，先演化 harness 再考虑模型更新时，先检查失败分布中的 planning 与 knowledge 变化；直接模仿专家会引入 planning 漂移，而 on-policy 纠正只提高知识覆盖、不增加规划失败。
- 该结论也适用于其他形式的 scaffold（如推荐系统的 prompt、RAG 的 system prompt 或工具调用约束）：如果 scaffold 已围绕模型行为调优，后续权重更新需以 on-policy 数据为主，避免分布偏移。